不确定性估计（UE）技术 - 例如高斯过程（GP），贝叶斯神经网络（BNN），蒙特卡罗辍学（MCDropout） - 旨在通过为每个分配估计的不确定性值来提高机器学习模型的可解释性他们的预测输出。然而，由于过高的不确定性估计可以在实践中具有致命的后果，因此本文分析了上述技术。首先，我们表明GP方法始终会产生高不确定性估计（OOD）数据。其次，我们在2D玩具示例中显示了BNN和MCDRopout在OOD样品上没有提供高不确定性估计。最后，我们凭经验展示了这种BNNS和MCDRopout的陷阱也在现实世界数据集中持有。我们的见解（i）提高了对深度学习中目前流行的UE方法更加谨慎使用的认识，（ii）鼓励开发UE方法，这些方法近似于基于GP的方法 - 而不是BNN和MCDROPOUT，以及我们的经验设置可用于验证任何其他UE方法的ood性能。源代码在https://github.com/epfml/unctemationsiapity-娱乐中获得。

在这项工作中，我们提出了一个基于学习梯度的颂歌神经网络的Meta-Learner。这种方法使优化器更灵活地诱导给定任务的自动感应偏压。使用最简单的HAMiltonian神经网络，我们证明我们的方法优于基于LSTM的Meta-Learner用于人工任务和Mnist DataSet，并在优化的人中具有Relu激活。此外，它还超越了人工任务的经典优化方法，并实现了Mnist的可比结果。

Recent advances on text-to-image generation have witnessed the rise of diffusion models which act as powerful generative models. Nevertheless, it is not trivial to exploit such latent variable models to capture the dependency among discrete words and meanwhile pursue complex visual-language alignment in image captioning. In this paper, we break the deeply rooted conventions in learning Transformer-based encoder-decoder, and propose a new diffusion model based paradigm tailored for image captioning, namely Semantic-Conditional Diffusion Networks (SCD-Net). Technically, for each input image, we first search the semantically relevant sentences via cross-modal retrieval model to convey the comprehensive semantic information. The rich semantics are further regarded as semantic prior to trigger the learning of Diffusion Transformer, which produces the output sentence in a diffusion process. In SCD-Net, multiple Diffusion Transformer structures are stacked to progressively strengthen the output sentence with better visional-language alignment and linguistical coherence in a cascaded manner. Furthermore, to stabilize the diffusion process, a new self-critical sequence training strategy is designed to guide the learning of SCD-Net with the knowledge of a standard autoregressive Transformer model. Extensive experiments on COCO dataset demonstrate the promising potential of using diffusion models in the challenging image captioning task. Source code is available at \url{https://github.com/YehLi/xmodaler/tree/master/configs/image_caption/scdnet}.

多尺度视觉变压器（VIT）已成为计算机视觉任务的强大骨干，而变压器量表中的自发计算则四处w.r.r.t.输入补丁编号。因此，现有的解决方案通常采用下采样操作（例如，平均合并）对密钥/值进行大幅降低计算成本。在这项工作中，我们认为，这种过度侵略性的下采样设计并不是可逆的，不可避免地会导致信息删除，尤其是对于物体中的高频组件（例如，纹理细节）。在小波理论的驱动下，我们构建了一种新的小波视觉变压器（\ textbf {Wave-vit}），该变压器以统一的方式通过小波变换和自我发挥学习来制定可逆的下采样。该提案可以通过对钥匙/价值观进行无损的下采样，从而实现自我发挥的学习，从而促进了追求更好的效率-VS-VS-Crifacy权衡。此外，逆小波变换被利用以通过扩大的接收场来汇总局部环境来增强自我注意力输出。我们通过广泛的实验比多个视觉任务（例如，图像识别，对象检测和实例分割）来验证波动的优势。它的性能超过了具有可比的拖鞋的最先进的VIT骨干。源代码可在\ url {https://github.com/yehli/imagenetmodel}中获得。

先前的工作提出了几种策略，以降低自我发挥机制的计算成本。这些作品中的许多作品都考虑将自我关注程序分解为区域和局部特征提取程序，这些程序都会产生较小的计算复杂性。但是，区域信息通常仅以损失的不良信息为代价，原因是由于下采样而丢失。在本文中，我们提出了一种新颖的变压器体系结构，旨在减轻成本问题，称为双视觉变压器（双击）。新的体系结构结合了一个关键的语义途径，可以更有效地将代币向量压缩到具有降低的复杂性顺序的全球语义中。然后，这种压缩的全局语义是通过另一个构造的像素途径在学习更精细的像素级详细信息中作为有用的先前信息。然后将语义途径和像素途径集成在一起并进行联合训练，从而通过这两个途径并行传播增强的自我运动信息。此后，双攻击能够降低计算复杂性，而不会损害很大的准确性。我们从经验上证明，双重射击比SOTA变压器体系结构具有较高的训练复杂性。源代码可在\ url {https://github.com/yehli/imagenetmodel}中获得。

在图像中理解丰富的语义并按语言顺序订购它们对于构成视觉上且语言上连贯的描述以进行图像字幕至关重要。现代技术通常利用了预训练的对象探测器/分类器，以在图像中挖掘语义，同时留下了固有的语言序列，语义序列不足。在本文中，我们提出了一个新的型变压器式结构的食谱，即理解和订购语义网络（COS-NET），它在新颖地将丰富的语义理解和可学习的语义订购过程统一到单个体系结构中。从技术上讲，我们最初利用跨模式检索模型来搜索每个图像的相关句子，并且搜索句子中的所有单词都被视为主要语义提示。接下来，设计了一种新颖的语义理解者，​​以滤除原始语义线索中无关的语义单词，同时推断出图像中视觉上基于的缺失相关语义单词。之后，我们将所有经过筛选和丰富的语义单词喂入语义排名，该语义排名学会学会以语言顺序分配所有语义单词。这样的有序语义单词序列与图像的视觉令牌进一步集成在一起，以触发句子的生成。经验证据表明，COS-NET清楚地超过了可可的最新方法，并在Karpathy测试拆分方面达到了最佳的苹果酒评分141.1％。源代码可在\ url {https://github.com/yehli/xmodaler/tree/master/master/configs/image_caption/cosnet}获得。

本文对我们的系统进行了概述和比较分析，该系统专为Sapien Maniskill Challenge挑战2021中的以下两个轨道而设计：无相互作用轨迹：从预采用的演示轨迹中学习政策的无相互作用轨迹目标。我们研究了这两个基于模仿学习的方法，即使用经典监督学习技术模仿观察到的行为，以及基于线之后的基于强化学习的方法。此外，通过基于变压器的网络利用对象和机器人臂的几何结构和纹理结构，以促进模仿学习。无限制轨道：在此轨道中，我们设计了一种基于启发式规则的方法（HRM）来通过将任务分解为一系列子任务来触发高质量对象操作。对于每个子任务，采用简单的基于规则的控制策略来预测可以应用于机器人臂的动作。为了简化系统的实现，所有源代码和预训练的模型均可在\ url {https://github.com/caiqi/silver-bullet-3d/}上获得。

Vision-Language预培训是一个新兴和快速发展的研究主题，将多模态知识从丰富的资源预训练任务转移到有限资源下游任务。与主要学习单个通用编码器的现有作品不同，我们提出了一种可训练的通用编码器 - 解码器网络（UNI-EDEN），以促进视觉语言感知（例如，视觉问题应答）和生成（例如，图像标题）。 UNI-EDEN是一种基于双流变换器的结构，由三个模块组成：对象和句子编码器，其单独了解每个模态的表示，以及通过模态交互能够实现多模态推理和句子的句子解码器。考虑到每个图像的语言表示可以跨越该层次结构的不同粒度，包括从简单到全面，个人标签，短语和自然句子，我们通过多粒愿景语言代理任务预先列车UNI-EDEN：屏蔽对象分类（MOC），蒙版区域短语生成（MRPG），图像句匹配（ISM）和屏蔽句生成（MSG）。以这种方式，UNI-EDEN赋予了多模态表示提取和语言建模的功率。广泛的实验证明了通过微调到四个视觉语言感知和发电下游任务来展示Uni-Eden的概括性。

BERT型结构导致了视觉语言预培训的革命，并在众多视觉语言下游任务上实现最先进的结果。现有解决方案主要用掩码令牌的多模态输入大小化，以触发基于掩码的代理预训练任务（例如，屏蔽语言建模和屏蔽对象/帧预测）。在这项工作中，我们认为这种掩码的输入将不可避免地引入跨模型匹配代理任务的噪声，从而留下探索的固有视觉语言协会。作为替代方案，我们推导出一种特定形式的用于视频预培训的跨模型代理目标，即对比跨模型匹配和去噪（Coco）。通过将蒙版帧/单词序列视为主要取消屏蔽的噪声增强，通过同时追求掩蔽和未掩蔽输入之间的模态匹配和模态匹配和模态的帧间匹配和模态的帧内偏离，通过对比方式来加强视频协会。我们的CoCo代理目标可以进一步集成到用于视频预训练的任何BERT型编码器解码器结构中，被命名为对比跨模态伯特（Coco-Bert）。我们在电视数据集上预先火车Coco-Bert以及新收集的大型GIF视频数据集（动作）。通过广泛的下游任务（例如，跨模型检索，视频问题回答和视频标题）进行广泛的实验，我们证明了Coco-Bert作为预训练的结构的优越性。

It is always well believed that modeling relationships between objects would be helpful for representing and eventually describing an image. Nevertheless, there has not been evidence in support of the idea on image description generation. In this paper, we introduce a new design to explore the connections between objects for image captioning under the umbrella of attention-based encoder-decoder framework. Specifically, we present Graph Convolutional Networks plus Long Short-Term Memory (dubbed as GCN-LSTM) architecture that novelly integrates both semantic and spatial object relationships into image encoder. Technically, we build graphs over the detected objects in an image based on their spatial and semantic connections. The representations of each region proposed on objects are then refined by leveraging graph structure through GCN. With the learnt region-level features, our GCN-LSTM capitalizes on LSTM-based captioning framework with attention mechanism for sentence generation. Extensive experiments are conducted on COCO image captioning dataset, and superior results are reported when comparing to state-of-the-art approaches. More remarkably, GCN-LSTM increases CIDEr-D performance from 120.1% to 128.7% on COCO testing set.